Meta週二(6日)宣布,針對愈來愈多人在旗下社交平台上發布一些人工智能(AI)生成、以假亂真的內容,他們會在未來幾個月開始對用戶上傳至Facebook、Instagram、Threads的AI生成內容加以標記,甚至對未揭露AI生成影片和音訊的用戶予以懲罰。
Meta會把由AI功能生成的逼真圖像嵌入「Imagined with AI」的浮水印,亦計劃開始對使用OpenAI、微軟、Google、Adobe、Midjourney、Shutterstock等工具製作的AI生成圖像進行相同處理方式,藉此避免明明是造假與事實不符的內容,卻被系統認定為沒有問題的情況發生。
Meta全球事務總裁Nick Clegg表示,將與產業夥伴合作推動全新技術標準,讓透過人工智能自動生成的圖像和影片內容可以更容易被識別,並且進行標示,讓使用者能更容易理解所見內容為自動生成內容。
Clegg亦表示,相信公司目前可以可靠地標記人工智能生成的圖像,但標記音頻和影片內容的工具更為複雜,仍在開發中。